Phân lớp Type IIB là một phiên bản mở rộng của Type IIA trước đó. Chúng có trọng lượng choán nước 279 t (275 tấn Anh) khi nổi và 328 t (323 tấn Anh) khi lặn); tuy nhiên tải trọng tiêu chuẩn được công bố chỉ có 250 tấn Anh (254 t).[4] Chúng có chiều dài chung 42,70 m (140 ft 1 in), lớp vỏ trong chịu áp lực dài 28,20 m (92 ft 6 in), mạn tàu rộng 4,08 m (13 ft 5 in), chiều cao 8,60 m (28 ft 3 in) và mớn nước 3,90 m (12 ft 10 in).[4]

Chúng trang bị hai động cơ diesel MWM RS 127 S 6-xy lanh 4 thì công suất 700 mã lực mét (510 kW; 690 shp) để đi đường trường và hai động cơ/máy phát điện Siemens-Schuckert PG VV 322/36 tổng công suất 460 mã lực mét (340 kW; 450 shp) để lặn, hai trục chân vịt và hai chân vịt đường kính 0,85 m (3 ft). Các con tàu có thể lặn đến độ sâu 80–150 m (260–490 ft).[4] Chúng đạt được tốc độ tối đa 12 kn (22 km/h) trên mặt nước và 6,9 kn (12,8 km/h) khi lặn,[4] với tầm hoạt động tối đa 3.800 nmi (7.000 km) khi đi tốc độ đường trường 8 kn (15 km/h), và 35–42 nmi (65–78 km) ở tốc độ 4 kn (7,4 km/h) khi lặn.[4]

Vũ khí trang bị bao gồm ba ống phóng ngư lôi 53,3 cm (21 in) trước mũi, mang theo tổng cộng năm quả ngư lôi hoặc cho đến 12 quả thủy lôi TMA. Một pháo phòng không 2 cm (0,79 in) cũng được trang bị trên boong tàu. Thủy thủ đoàn bao gồm 25 sĩ quan và thủy thủ.[4]

U-20 được đặt hàng vào ngày 2 tháng 2, 1935.[2] Nó được đặt lườn tại xưởng tàu của hãng Germaniawerft tại Kiel vào ngày 1 tháng 8, 1935,[2] hạ thủy vào ngày 14 tháng 1, 1936,[2] và nhập biên chế cùng Hải quân Đức Quốc Xã vào ngày 1 tháng 2, 1936[2] dưới quyền chỉ huy của Hạm trưởng, Đại úy Hải quân Hans Eckermann.[2]